GGUF · 树莓派实战
🧑🏫 30 章 · 从零到AI助手
1
GGUF 与树莓派初探
格式·硬件·目标清单
2
树莓派环境搭建
烧录·SSH·I2C/SPI·依赖
3
交叉编译与本地编译
llama.cpp 两种方式·对比
4
GGUF 模型下载与管理
Hugging Face·CLI·wget
5
量化原理与 GGUF 级别
Q4_K_M · Q5 · Q8 · 内存选择
6
运行你的第一个模型
llama.cpp 加载·终端对话
7
交互式聊天与 API 服务
交互模式·HTTP Server
8
性能调优
CPU线程·批处理·上下文长度
9
内存优化与 Swap 配置
ZRAM·Swap文件·应对OOM
10
Python 调用 llama.cpp
subprocess·ctypes
11
llama-cpp-python 库入门
安装·直接加载GGUF
12
构建简单的聊天机器人
流式输出·对话机器人
13
提示工程基础
高效Prompt·减少Token
14
上下文窗口管理
Token限制·滑动窗口·摘要
15
模型微调与 LoRA 适配
PC微调·导出GGUF·部署
16
多模型切换与资源监控
动态切换·CPU/内存监控
17
离线知识库问答
Sentence-Transformers·RAG
18
语音交互集成
麦克风·语音识别·语音对话
19
摄像头视觉问答
Moondream·LLaVA GGUF
20
边缘计算场景
无网络·数据本地处理
21
功耗与散热管理
散热方案·功耗测试
22
模型安全与内容过滤
敏感词过滤·安全输出
23
日志与调试
记录输入输出·内存泄漏
24
自动化部署脚本
一键部署·多树莓派
25
集群推理尝试
MPI·Socket·分布式
26
Web 界面开发
Flask·FastAPI·聊天界面
27
移动端控制
手机浏览器·远程控制
28
性能基准测试
量化级别·树莓派4B/5
29
常见问题与排错
段错误·OOM·加载失败
30
课程总结与项目展示
综合项目·树莓派AI助手